1876年、渋沢栄一は第一国立銀行を設立した。1896年、国立銀行条例による営業免許期間終了により、一般銀行として、第一銀行となった。第2次世界大戦中の1943年、国策により三井銀行と合併し、帝国銀行となった。1948年に帝国銀行は解体され、再び、第一銀行として再建された。

1896年、農工業の改良のための長期融資を目的に「日本勧業銀行法」が制定され、翌年に日本政府を中心に設立された特殊銀行であった。類似の銀行に、日本興業銀行や北海道拓殖銀行があった。第2次世界大戦後、1950年に銀行法が改正され、普通銀行として再建された。

1971年、第一銀行と日本勧業銀行が対等合併し、総資産で富士銀行を抜いて、日本で最も多額の総資産を保持する第一勧業銀行が生まれた。当時、第一銀行は富士通を主たるベンダーとして、銀行オンラインシステムを構築していた。一方、日本勧業銀行は日本IBMを主たるベンダーとしたシステムを構築していた。この合併に際して、第一勧業銀行は、旧第一銀行のシステムを基礎としたシステムに移行する方針を採った。